逃离自我确认陷阱:执行-蒸馏-验证的智能体经验学习框架
🧭 多智能体协作经验构建 ★ 深度解读
Zhejiang University · Tsinghua University · Northwestern Polytechnical University · University of Science and Technology of China · Shanghai Jiaotong University
通过多智能体异构执行、第三方对比蒸馏与共识验证,将经验学习从自反思循环重构为协作过滤,可靠抑制错误记忆污染
📌 工作参考价值(4 点)
- 经验构建的去偏设计:在电商Agent(如导购助手、客服Agent)的经验积累中,直接套用单智能体自总结容易把错误但自洽的交互流程当成成功案例写入记忆,导致后续任务复用错误策略。可借鉴EDV的第三方蒸馏:用另一个模型(或不同prompt的同一模型)对比多个并行执行轨迹,生成候选经验,减少执行者中心化的总结偏差。
- 共识验证提升记忆质量:在广告出价Agent或搜索推荐Agent的记忆更新时,引入执行者集体投票的默认拒绝机制,只有获得全体执行者一致认可的经验才进入共享记忆,部分认可则存入私有记忆。这能有效过滤幻觉与噪声,特别适用于无明确ground-truth的开放域任务。
- 异构执行增加探索多样性:实际业务中可部署多个不同模型(或同模型不同温度)对同一任务并行产生候选轨迹,而非简单增加重试次数。这样做能暴露不同的成功与失败模式,为后续经验提取提供更丰富的对比素材,类似推荐系统中的多样性采样。
- 能力矩阵与分层记忆:维护一个动态能力矩阵,记录各Agent擅长哪些任务类型;推理时先按任务匹配最适求解器,再从共享记忆和私有记忆中逐级检索。这种轻量级的路由+记忆分层模式可直接移植到多模型协同的推荐Agent系统,几乎不增加在线推理成本,却显著提升检索命中率和经验利用率。
边际优势累积:跨批次证据驱动的 Agent 记忆自进化
🧭 Agent 记忆自进化 · 跨批次证据累积 ★ 深度解读
Alibaba International Digital Commerce Group
通过差分信号与 EMA 累积跨批次操作级证据,解决离线记忆蒸馏中的信号矛盾问题
📌 工作参考价值(4 点)
- 记忆更新的离线优化范式:当 agent 需要从历史执行痕迹中抽取可复用记忆(如电商导购策略、广告投放流程模板),可采用 MAA 的‘提案-评分-差分-EMA 累积’流水线,完全避免线上 rollout 的高成本,适合高延迟、高成本的真实业务环境。
- 差分评估消除批次混杂:直接把操作评分作为优化信号容易受批次难度影响,借鉴 MAA 的‘同一批次内 baseline 与候选同步打分再求差’的设计,可得到跨批次可比的操作优势方向信号。在推荐 agent 的策略搜索中,可以用 LLM 对候选策略与当前策略在同一批请求上同时打分再差分,得到更干净的优化方向。
- 基于语义合并的跨批次操作追踪:对 agent 输出的文本操作(如改写规则、新策略片段),可通过 embedding 相似度合并语义等价的候选项,避免因表述差异导致的证据碎片化。该技巧可直接用于线上记忆管理系统的操作去重与合并。
- EMA 证据累积与三种操作模式识别:通过 EMA 跟踪每个操作的边际优势,可以自动区分‘稳定有效’、‘虚假相关’和‘场景特定’三类操作,实现安全的离线记忆演化。在搜索广告的查询改写记忆或 prompt 库优化中,可避免单次正样本就把噪声策略写入长期记忆。